From Correctness to Utility: Gain-Based Prefix Evaluation for LLM Reasoning
从正确性到效用：基于增益的LLM推理前缀评估
🧭 过程监督 · 前缀效用评估 · 数学推理 ★ 深度解读
Fudan University · Shanghai Innovation Institute
用轻量级学生模型群估计前缀对求解率的边际增益，训练前缀效用模型，在Best-of-N、束搜索和RL中均有效提升推理性能。
📌 工作参考价值（4 点）
- 用轻量模型群估计前缀效用：无需人工标注步骤正确性，通过对比有/无前缀时多个小模型的解题率变化得到增益，再转为偏好对训练评估模型。电商场景中，对用户行为序列的部分轨迹（例如浏览前缀）评估能否提高最终转化率，类似地可采用轻量模型群采样转化率增益来构建排序信号。
- 增益偏好对构建训练数据：将前缀效用差转为 pairwise 偏好，使用 Bradley-Terry 损失训练标量评估头，过滤掉高噪声对比对。在生成式推荐中，评估生成物品序列的中间状态效用时，可用同样方法从偏好对中学习价值模型，避免直接回归噪声大的转化率。
- 提供过程级监督缓解RL稀疏奖励：将前缀效用差作为过程优势（dense advantage），与稀疏的最终答案奖励结合，稳定RL训练且防止reward hacking。Agent 行为决策中，可对子任务完成度建立类似的增益模型，提供中间奖励以加速策略学习。
- 弱到强泛化：方法训练出的前缀效用模型能迁移到更强的策略模型，且支持按下游模型能力调整学生模型权重。这意味着在业务中，可用低成本小模型群构建评估信号，再去指导更强大的生产模型的行为搜索或生成。